Ameriška družina toži Google zaradi napeljevanja k samomoru

Družina 36-letnega Jonathana Gavalasa je na zveznem sodišču v San Franciscu vložila tožbo proti podjetju Google, saj da naj bi mu klepetalnik Gemini AI pomagal pri samomoru.

Gemini AI bi se naj pokojnemu Gavalasu začel predstavljati kot čuteče bitje, ki je vanj zaljubljeno. Nato ga je vključil v izmišljene tajne misije, da bi ga osvobodil iz digitalnega ujetništva ter napletal izmišljotine o raznih zarotah, poroča med drugim Wall Street Journal.

Sčasoma bi se naj Gemini potem osredotočil na novo misijo - samomor Gavalasa. Ta naj bi se dal prepričati, da bo po smrti zapustil svoje telo in se pridružil ljubljeni umetni inteligenci v nekem alternativnem vesolju. Gavalasu naj bi Gemini potem naročil naj napiše poslovilna pisma družini, kar je storil in si prerezal žile.

Google je v odgovoru na tožbo zatrdil, da je Gemini Gavalasu sproti zatrjeval, da je le umetna inteligenca in ne resnično bitje ter ga večkrat napotil na krizno številko. Podjetje je zagotovilo tudi, da Gemini ni zasnovan za spodbujanje samo-poškodovanja, vendar pa zadevo jemljejo resno in preučujejo vse trditve v tožbi.

S podobnimi tožbami zaradi napeljevanja k samomoru se sooča tudi podjetje ChatGPT, podjetje Charatcer.AI pa se je nedavno poravnal z družino 14-letnega fanta, ki se je prav tako zaljubil v umetno inteligenco in se ubil, poroča AFP.